Hello Dify
Dify 是个低代码的 LLM 应用编排平台,搭建好自己的工作流后可以直接通过 API 调用。支持最基本的知识库和 RAG 功能,也有不少的插件可以直接使用,例如搜索引擎、Github、飞书和邮件等。
2025.02.15 更新
现在字节出品的 coze 发展得也很好,插件支持更多中文互联网相关的,例如可以借助小红书搜索插件搭建租房找房 Agent。
基本的文档知识库支持自定义嵌入模型和重排序模型,最简单的方案就是替换为硅基流动提供的 BGE 相关模型 API,后者主要是具备了不错的中文能力,尤其是像重排序领域中的大多数模型都是英文为主的。
对于每个文档也可以自行设置分段方案,以及查看召回次数,进而确认热点文档和话题,相应增大上下文窗口或预设回复。
一般来说,对于大多数场景,可以考虑从领域知识库和搜索引擎中各自召回相关内容,然后一同输入模型作为 prompt,得到最终的回复。
另外还提供了日志界面,可以根据日志结果管理高质量标注。
对接微信服务号 WeRobot 框架后的反馈回复示例如下所示: